Tư Mã Viêm người huyện Ôn, quận Hà Nội (nay là huyện Ôn, tỉnh Hà Nam), là cháu nội Tư Mã Ý, con trai trưởng của Tư Mã Chiêu. Mẹ ông là Vương Nguyên Cơ, con gái của Vương Túc. Khi Tư Mã Viêm lớn lên, dòng họ Tư Mã đã nắm quyền thao túng Triều đình nhà Tào Ngụy thời Tam Quốc.

Năm 251, Tư Mã Ý qua đời, bác Tư Mã Viêm là Tư Mã Sư lên thay, nắm quyền trong triều. Tư Mã Sư không có con trai nên Tư Mã Chiêu cho người con thứ Tư Mã Du (em Viêm) làm con anh mình. Tư Mã Sư thấy Phế đế Tào Phương có ý chống đối, bèn truất ngôi và lập Tào Mao lên thay. Năm 254, Tư Mã Sư ốm chết, Tư Mã Chiêu lên thay. Tào Mao cũng định chống đối Chiêu, bị Chiêu giết chết và lập Tào Hoán kế vị, tức Ngụy Nguyên Đế.

Năm 263, Tư Mã Chiêu điều binh diệt nước Thục Hán, được vua Ngụy phong tước Tấn Vương. Năm 265, Chiêu ốm nặng, có người khuyên nên lập Tư Mã Du là người hương hỏa của Tư Mã Sư, nhưng Chiêu không nghe theo mà lập con cả Tư Mã Viêm.

Tư Mã Viêm lên ngôi Tấn Vương, không lâu sau đó đã bắt Hoàng đế Tào Hoán của Tào Ngụy thoái vị và giao lại triều đình cho mình vào ngày Nhâm Tuất tháng 12 năm Ất Dậu (tức 4 tháng 2 năm 266). Vào ngày Bính Dần cùng tháng (tức 8 tháng 2), Tư Mã Viêm chính thức làm đại điển đăng cơ, trở thành Tấn Vũ Đế trong lịch sử, vương triều Tây Tấn được thành lập.